Moving Alphabet: A Controlled Study of Training Data for Text-to-Video Generation
Moving Alphabet:可控文本到视频生成训练数据研究
🧭 文本到视频生成 · 训练数据重要性
Meta Superintelligence Labs · Purdue University
用程序化字母视频揭示数据分布与标注质量对文生视频模型泛化与训练效率的关键影响。
📌 工作参考价值(4 点)
- 在电商产品视频生成中,刻意保持训练数据内容(如商品品类、场景)与视频时长的均衡分布,避免偏斜,可提升模型泛化。
- 标注质量直接决定模型上限和收敛速度;低质量caption无法被CFG或微调完全挽救,预训练阶段就应投入资源保证标注准确性。
- 可借鉴“程序化测试床”思路,在可控环境下快速评测数据策略(如不同的文本改写、缺失信息)对生成质量的影响,降低大规模实验成本。
- 当训练数据存在噪声时,使用高质量子集微调可部分修复,但仍需关注源头数据清洗。